Not Worth Another Token: Marginal Value Estimation for Efficient Deep Research Agents
不值的另一个Token：深度研究Agent的边际价值估计与高效剪枝
🧭 Agent上下文管理 · 边际价值剪枝 ★ 深度解读
University of Massachusetts Amherst · University of Texas at Austin · Adobe Research
针对长程深度研究Agent，系统对比多阶段剪枝策略，发现剪枝位置比规则更关键，早期剪枝可减少73% token
📌 工作参考价值（4 点）
- 多阶段剪枝理念可迁移至推荐Agent：在生成式推荐或多步检索Agent中，可借鉴 Pre-Retrieval（过滤低价值子查询/召回请求）、Post-Retrieval（根据已收集上下文淘汰冗余召回结果）、Pre-Synthesis（最终排序前压缩上下文）的三阶段剪枝框架，在不显著损失质量的前提下大幅降低 token 消耗与延迟。
- 轻量启发式即可有效：MMR（最大边际相关性）等简单规则在早期剪枝中性价比极高，无需额外的 LLM 调用或复杂学习，适合线上高吞吐场景，尤其在召回阶段过滤冗余物品或搜索词候选时可直接复用。
- 剪枝位置远比具体公式重要：实验表明 Post-Retrieval 剪枝能消除下游扩展成本，而 Pre-Synthesis 剪枝仅压缩最终输入，无法挽回上游开销；在电商 Agent 流程中应优先在搜索/召回早期介入，而非只在排序前做上下文压缩。
- 质量与证据保留需联合评估：论文发现报告质量与引用召回率可能背离，压缩可能提升合成质量但丢失支撑证据；在广告文案生成或推荐理由合成时，应同时监控生成文本的支撑度和事实准确性，避免过度剪枝导致信息缺失。